Xu mật viện có 1 Chủ tịch, 1 Phó Chủ tịch (dự khuyết), 12 (sau tăng lên thành 24) hội viên, 1 tổng thư ký, và 3 thư ký dự bị. Tất cả các hội viên trong Xu mật viện kể cả Chủ tịch và Phó Chủ tịch được Thiên hoàng bổ nhiệm mãn đời. Việc đề cử là qua khuyến nghị của Thủ tướng và nội các.

Ngoài 24 hội viên bổ nhiệm trên, thành phần Xu mật viện còn có Thủ tướng cùng các Bộ trưởng. Các Hoàng thân (cả shinnōke và ōke) đến tuổi trưởng thành đều có quyền tham gia trong Xu mật viện. Chủ tịch Xu mật viện có quyền triệu tập và điều hành các buổi họp.

Các buổi họp trong hoàng cung đều được giữ kín; Thiên hoàng chỉ tham dự trong khi có việc trọng đại. Đề tài thảo luận không bị hạn chế; bất cứ việc gì Thiên hoàng cần tham khảo đều có thể đem ra nghị luận.